La familia Rudbeck fue ennoblecida un total de cinco veces. Comenzó como estudiante de medicina en la Universidad de Uppsala en 1648, defendiendo allí su tesis en 1652. Con el apoyo real, continuó sus estudios en Leiden, y fue nombrado profesor en Upsala ya en 1658 y posteriormente rector de la universidad en 1661. Rudbeck fue uno de los primeros descubridores del sistema linfático en 1651, cuando era joven, lo que contribuyó al éxito de su carrera. Para facilitar sus estudios de anatomía humana se construyó una cúpula encima del Gustavianum, el edificio principal de la Universidad, en cuyo interior se construyó un Theatrum anatomicum, donde las disecciones podían ser realizadas en frente de los estudiantes. La cúpula aún se mantiene y es un punto de referencia en Upsala. Sus generalizados talentos, tanto prácticos como artísticos, le permitieron sobresalir en muchas actividades: trabajó como arquitecto, ingeniero, astrónomo, constructor, agrimensor, botánico, anticuario, inventor y fabricante. También era experto en dibujo y pintura, tenía una bella voz de bajo y tocaba varios instrumentos musicales.

La música jugó un importante papel en la vida de Rudbeck. Fue un músico activo siendo estudiante tanto en Västerås como en Uppsala. Durante su carrera como profesor enseñó música y adoptó los entonces nuevos principios del collegium musicum, convirtiéndose en un supervisor semioficial de la vida musical en la universidad. Bajo su dirección, la universidad compró instrumentos y música impresa moderna, por ejemplo, de Ahle, Briegel, Capricornus, Werner Fabricius, Hammerschmidt, Pfleger, Rosenmüller, Schmeltzer y Scheidt. Tenía ocho becas públicas reservadas para estudiantes de música, lo que constituía y garantizaba un conjunto permanente. En 1682 él y Petrus Lagerlöf formaron una sociedad teatral que actuó en Estocolmo en 1686, inaugurando la dramaturgia sueca.

También se involucró en la construcción de un órgano monumental en la catedral de Upsala, en calidad de gerente general y maestro de obras del trabajo de supervisión del órgano. El primer constructor de órganos contratado no fue capaz de poner en práctica algunas invenciones notables de Rudbeck relacionadas con el diseño del órgano, y no fue hasta 1698 que pudo ver el magnífico instrumento completado por Hans Heinrich Cahman. Relatos de la época de las ejecuciones llevadas a cabo o inspiradas por él demuestran que estaba a favor de una versión simplificada del más bien anticuado estilo poli coral, a menudo con los grupos vocales e instrumentales desplegados espacialmente.

Rudbeck también se vio involucrado en la era de la Retórica. Suecia había ascendido a la posición de superpotencia europea y esto creó la necesidad de una intelectualidad que respaldara ese nuevo poder. Esto llevó a Rudbeck a escribir Atlantica, una obra donde sostiene que Escandinavia, y concretamente Suecia, es la mítica y hundida Atlántida; y que el sueco fue el idioma de Adán. Rudbeck ha sido llamado como "el primer sueco en realizar un descubrimiento científico". Desafortunadamente, gran parte de su trabajo se perdió en el incendio de 1702, que destruyó la mayor parte de Upsala. Durante el incendio, fue el mismo Rudbeck quien dirigió a la gente de la ciudad, dando órdenes desde el techo de su casa, mientras ésta era consumida por las llamas. Poco después del incendio, Rudbeck falleció.

Sólo una composición suya se ha conservado, un Lamento para dos voces y bajo continuo en el estilo de Hammerschmidt, escrito para el funeral del canciller Axel Oxenstierna en 1654. Rudbeck y su principal  discípulo Vallerius, se encargaron de recopilar y editar las canciones del nuevo himnario sueco oficial, publicado en 1697.